Dòng họ ông, một khái niệm quan trọng trong xã hội truyền thống Trung Quốc, nằm tại thôn Giang (江村), huyện Tinh Đức (旌德县) Huy Châu (徽州) cũ, phía nam tỉnh An Huy, đây cũng là quê hương của một số học giả và trí thức nổi tiếng Trung Quốc. Giang Trạch Dân lớn lên trong những năm chiếm đóng của Nhật Bản. Chú ông, Giang Thế Hầu, một cán bộ của Đảng Cộng sản Trung Quốc hy sinh trong khi chiến đấu với quân Nhật, và được coi là một người tử vì đạo.[3] Giang Trạch Dân vào Đại học Trung ương Quốc gia (国立中央大学) tại vùng Nam Kinh dưới sự chiếm đóng của quân Nhật trước khi chuyển sang Đại học Giao thông Thượng Hải. Ông tốt nghiệp năm 1947 với tấm bằng kỹ sư điện. Ông gia nhập Đảng Cộng sản Trung Quốc khi còn đang là sinh viên. Sau khi nước Cộng hoà Nhân dân Trung Hoa được thành lập, Giang Trạch Dân được đi học tại Nhà máy Ô tô Stalin ở Moskva trong thập niên 1950. Ông làm việc tại Xưởng ô tô thứ nhất tại Trường Xuân. Cuối cùng ông chuyển sang làm các công việc quản lý của chính phủ và bắt đầu thăng tiến, trở thành một thành viên Uỷ ban Trung ương Đảng Cộng sản, Bộ trưởng Công nghiệp Điện năm 1983. Năm 1985 ông trở thành Chủ tịch thành phố Thượng Hải, và sau đó là Bí thư thành uỷ Thượng Hải.

Khi còn là chủ tịch thành phố Giang Trạch Dân nhận được nhiều lời khen chê khác nhau. Nhiều lời chỉ trích cho rằng ông là một "bình hoa", một thuật ngữ Trung Quốc được dùng để miêu tả người chỉ có chức vụ nhưng vô tích sự.[4] Nhiều người cho rằng sự phát triển của Thượng Hải trong thời gian này là công của Chu Dung Cơ [5]. Giang Trạch Dân là người tuyệt đối trung thành với Đảng, trong giai đoạn này, giữa các cuộc cải cách kinh tế của Đặng Tiểu Bình. Trong một nỗ lực nhằm kiềm chế những sinh viên bất bình năm 1986, Giang Trạch Dân đã viện dẫn Bài diễn văn Gettysburg bằng tiếng Anh trước một nhóm sinh viên phản kháng.[6]

Giang Trạch Dân được miêu tả là người có khả năng nói tạm đủ nhiều ngoại ngữ, gồm tiếng Rumani, tiếng Nga, và tiếng Anh. Một trong những sở thích của ông là tiếp đón các vị khách nước ngoài với những cuộc nói chuyện nhỏ về văn học và nghệ thuật bằng ngôn ngữ của họ, ngoài ra còn hát những bài hát ngoại quốc bằng nguyên ngữ. Ông trở nên thân thiết với Allen Broussard, vị thẩm phán người Mỹ gốc Phi tới thăm Thượng Hải năm 1987.

Giang bắt đầu thăng tiến trong hệ thống chính trị quốc gia năm 1987, tự động trở thành một thành viên Bộ chính trị Ban chấp hành Trung ương Đảng Cộng sản Trung Quốc vì theo truyền thống vị Bí thư thành uỷ Thượng Hải đương nhiên có chân trong Bộ chính trị. Năm 1989, Trung Quốc đối mặt với cuộc khủng hoảng vì những cuộc phản kháng trên Quảng trường Thiên An Môn, và Chính phủ Trung ương đang bối rối trước việc giải quyết cuộc khủng hoảng đó. (Chính sách mở cửa, do Đặng Tiểu Bình đưa ra, đã chứng tỏ là một điểm quan trọng và khôn ngoan trong lịch sử hiện đại Trung Quốc, giúp kinh tế phát triển ở mức độ đáng kinh ngạc trong nhiều thập kỷ.) Tháng 6, Đặng Tiểu Bình bãi chức nhân vật theo đường lối tự do Triệu Tử Dương, người bị cho là có đường lối quá ôn hoà trước các sinh viên phản kháng. Ở thời điểm đó, Giang Trạch Dân là Bí thư thành uỷ Thượng Hải, khu vực hàng đầu của trung tâm kinh tế mới Trung Quốc. Trong một vụ việc với World Economic Herald, Giang Trạch Dân đã cho đóng cửa tờ báo này, lên án nó gây nguy hại. Việc xử lý vụ khủng hoảng ở Thượng Hải đã được Bắc Kinh chú ý, và vị lãnh đạo tối cao khi ấy là Đặng Tiểu Bình. Khi các cuộc phản kháng leo thang và vị Tổng thư ký Đảng cộng sản khi ấy là Triệu Tử Dương bị cách chức, Giang Trạch Dân được giới lãnh đạo Đảng chọn làm ứng cử viên thay cho Lý Thụy Hoàn ở Thiên Tân, Thủ tướng Lý Bằng, Trần Vân, và những vị lãnh đạo già cả khác để trở thành Tổng bí thư. Ở thời điểm đó ông bị coi là ứng cử viên không thích hợp. Trong vòng ba năm, Đặng Tiểu Bình đã chuyển hầu hết quyền lực trong Đảng, Nhà nước và quân đội vào tay Giang Trạch Dân.